生成AIの商業化に伴い、オンライン上の虚偽情報が急増しています。認証プラットフォームSumsubのデータによると、2023年から2024年にかけて、世界的なディープフェイクの数は4倍に増加しました。2024年には、ディープフェイクが全ての不正行為の7％を占め、なりすまし、アカウント乗っ取りから複雑なソーシャルエンジニアリング活動まで、様々な形態に及んでいます。この問題に対処するため、MetaはAI生成動画に透かしを挿入する新しいツール「Meta Video Seal」を発表しました。